ChatGPT: Ανησυχητικά ευρήματα - Πάνω από 1 εκατ. χρήστες εκδηλώνουν αυτοκτονικές τάσεις εβδομαδιαία

Μια συνταρακτική εκτίμηση δημοσίευσε η OpenAI, σύμφωνα με την οποία πάνω από ένα εκατομμύριο άτομα κάθε εβδομάδα εκδηλώνουν αυτοκτονικές τάσεις όταν συνομιλούν με το ChatGPT.

Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT κάθε εβδομάδα στέλνουν μηνύματα που περιλαμβάνουν «σαφείς ενδείξεις πιθανής αυτοκτονικής πρόθεσης ή σχεδίου», σύμφωνα με μια ανάρτηση στο blog που δημοσίευσε η OpenAI τη Δευτέρα. Το εύρημα, που αποτελεί μέρος μιας ενημέρωσης σχετικά με τον τρόπο με τον οποίο το chatbot χειρίζεται ευαίσθητες συνομιλίες, είναι μία από τις πιο άμεσες δηλώσεις του γίγαντα της τεχνητής νοημοσύνης σχετικά με το βαθμό στον οποίο η τεχνητή νοημοσύνη μπορεί να επιδεινώσει τα προβλήματα ψυχικής υγείας.

Εκτός από τις εκτιμήσεις της σχετικά με τις αυτοκτονικές σκέψεις και τις σχετικές αλληλεπιδράσεις, η OpenAI ανέφερε επίσης ότι περίπου το 0,07% των χρηστών που είναι ενεργοί σε μια δεδομένη εβδομάδα – περίπου 560.000 από τους 800 εκατομμύρια εβδομαδιαίους χρήστες της – εμφανίζουν «πιθανά σημάδια ψυχικών έκτακτων περιστατικών που σχετίζονται με ψύχωση ή μανία». Η ανάρτηση προειδοποίησε ότι αυτές οι συνομιλίες ήταν δύσκολο να ανιχνευθούν ή να μετρηθούν και ότι αυτή ήταν μια αρχική ανάλυση, επισημαίνει ο Guardian.

Καθώς η OpenAI δημοσιεύει δεδομένα σχετικά με ζητήματα ψυχικής υγείας που σχετίζονται με το κορυφαίο προϊόν της, η εταιρεία αντιμετωπίζει αυξημένο έλεγχο μετά από μια πολύ γνωστή αγωγή από την οικογένεια ενός εφήβου που αυτοκτόνησε μετά από εκτεταμένη χρήση του ChatGPT. Τον περασμένο μήνα, η Ομοσπονδιακή Επιτροπή Εμπορίου ξεκίνησε επιπλέον μια ευρεία έρευνα σε εταιρείες που δημιουργούν chatbots τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, για να διαπιστώσει πώς μετρούν τις αρνητικές επιπτώσεις σε παιδιά και εφήβους.

Οι αλλαγές στο ChatGPT5 και η συνεισφορά κλινικών ιατρών

Η OpenAI ισχυρίστηκε στην ανάρτησή της ότι η πρόσφατη ενημέρωση του GPT-5 μείωσε τον αριθμό των ανεπιθύμητων συμπεριφορών του προϊόντος της και βελτίωσε την ασφάλεια των χρηστών σε μια αξιολόγηση μοντέλου που περιελάμβανε περισσότερες από 1.000 συνομιλίες σχετικά με αυτοτραυματισμούς και αυτοκτονίες.

«Οι νέες αυτοματοποιημένες αξιολογήσεις μας βαθμολογούν το νέο μοντέλο GPT-5 με 91% συμμόρφωση με τις επιθυμητές συμπεριφορές μας, σε σύγκριση με 77% για το προηγούμενο μοντέλο GPT-5», αναφέρει η ανάρτηση της εταιρείας.

Η OpenAI δήλωσε ότι το GPT-5 επέκτεινε την πρόσβαση σε γραμμές βοήθειας για κρίσεις και πρόσθεσε υπενθυμίσεις για τους χρήστες να κάνουν διαλείμματα κατά τη διάρκεια μακρών συνεδριών. Για να βελτιώσει το μοντέλο, η εταιρεία δήλωσε ότι προσέλκυσε 170 κλινικούς ιατρούς από το Παγκόσμιο Δίκτυο Ιατρών της, το οποίο αποτελείται από ειδικούς στον τομέα της υγειονομικής περίθαλψης, για να βοηθήσουν στην έρευνά της τους τελευταίους μήνες, η οποία περιελάμβανε την αξιολόγηση της ασφάλειας των απαντήσεων του μοντέλου της και τη βοήθεια στη σύνταξη των απαντήσεων του chatbot σε ερωτήσεις σχετικές με την ψυχική υγεία.

«Στο πλαίσιο αυτού του έργου, ψυχίατροι και ψυχολόγοι εξέτασαν περισσότερες από 1.800 απαντήσεις του μοντέλου που αφορούσαν σοβαρές καταστάσεις ψυχικής υγείας και συνέκριναν τις απαντήσεις του νέου μοντέλου συνομιλίας GPT-5 με τα προηγούμενα μοντέλα», ανέφερε η OpenAI. Ο ορισμός της εταιρείας για το «επιθυμητό» περιελάμβανε τον προσδιορισμό του κατά πόσον μια ομάδα εμπειρογνωμόνων της κατέληξε στο ίδιο συμπέρασμα σχετικά με το τι θα ήταν η κατάλληλη απάντηση σε ορισμένες καταστάσεις.

Οι ερευνητές στον τομέα της τεχνητής νοημοσύνης και οι υποστηρικτές της δημόσιας υγείας εδώ και καιρό εκφράζουν επιφυλάξεις για την τάση των chatbot να επιβεβαιώνουν τις αποφάσεις ή τις αυταπάτες των χρηστών, ανεξάρτητα από το αν αυτές μπορεί να είναι επιβλαβείς, ένα ζήτημα γνωστό ως «συκοφαντία». Οι ειδικοί στον τομέα της ψυχικής υγείας έχουν επίσης εκφράσει ανησυχίες για τους ανθρώπους που χρησιμοποιούν chatbot τεχνητής νοημοσύνης για ψυχολογική υποστήριξη και έχουν προειδοποιήσει για τον κίνδυνο που αυτό μπορεί να ενέχει για τους ευάλωτους χρήστες.